Muzej Mimara smješten je u arhitektonski kompleks "donjogradskih gimnazija", podignut krajem 19. st. u duhu historicizma: riječ je o dragocjenom primjeru neo-renesansne palače, djelu dvojice njemačkih arhitekata iz Leipziga/Berlina, A. Ludwiga i L. Th. Hülssnera, specijaliziranih za projektiranje školskih zgrada. Projekt je naručen 1892., a zgrada je otvorena za javnost 1895. g., u povodu dolaska u Zagreb kralja i cara Franje Josipa I.
Povijesnu zaslugu za gradnju ima historik umjetnosti, slikar i političar Izidor Kršnjavi (Našice, 1845. - Zagreb, 1927.), koji je od 1891. do 1896. g. bio u Zagrebu na položaju predstojnika Odjela za bogoštovlje i nastavu. Kršnjavi je pokrenuo niz prosvjetnih i kulturnih programa te osnovao i sagradio brojne temeljne institucije hrvatske prosvjete, znanosti i kulture.
Svoj prvotni arhitektonsko-prosvjetni program za gimnazijski kompleks na Rooseveltovu trgu Izidor Kršnjavi sazdao je na humanističkom konceptu forumskog spajanja niza školskih i muzejskih instituta. Od te je sadržajno i simbolički složene koncepcije odustao zbog pomanjkanja novca, tako da je u realizaciji "Školski forum" programski sveden u jednostavniji sklop gimnazija.
Položajem, razvedenošću tlocrta, artikuliranim pročeljima i svečanim vizurama taj kompleks zgrada ima, uz arhitektonske, i izuzetne urbanističke i ambijentalne vrijednosti u definiranju izgleda zagrebačkog Donjeg grada. Kao zaštićeno kulturno dobro, upisano je kod Ministarstva kulture Republike Hrvatske u registar nepokretnih kulturnih dobara.
Muzej Mimara smješten je u središnjem dijelu kompleksa, u kojem su do 1985. g. djelovale I. i IV. gimnazija. U sjevernom krilu kompleksa je V. gimnazija, dok su u južnome krilu Osnovna škola "Izidor Kršnjavi" te odnedavno i Prva privatna umjetnička gimnazija s pravom javnosti.